AI Papers Daily

#Hallucination Detection

5 篇

External Observers May See More Clearly: Cross-Model Span-Level Hallucination Detection in Large Language Models via Hidden State Probing

外部观察者或更清晰：基于隐藏状态探测的大模型跨模型跨度级幻觉检测

🧭 LLM 幻觉检测 · 隐藏状态探测

LIX, École Polytechnique · LIPN, Sorbonne Paris Nord · School of Electrical and Electronic Engineering, Nanyang Technological University

提出用隐藏状态探针定位幻觉起始与延续 token，并发现外部小模型观察者可匹敌生成模型自检测

📌 工作参考价值（4 点）

• 在生成式推荐或 Agent 链路中，可用隐藏状态探针做幻觉 onset 实时检测：不必等整段生成完成，发现 onset token 就触发回退、改写或检索，用于商品描述、广告文案等高价值生成场景。
• 跨模型监控架构值得借鉴：用一个小模型作为外部观察者读取大模型生成时的 hidden states，成本低且可独立部署，适合做大模型生成内容的在线质量守门。
• 相比 RAG 外部检索，内部探针没有额外网络延迟，适合隐私受限、需要本地推理的搜索/推荐场景；可把探针作为轻量插件挂在 Transformer 特定层输出上。
• 训练检测头时建议从 token 级升级到 span 级标注，业务上更对应“哪一句开始跑偏”，便于精确定位和修复；可构造自己的 span 标签（如商品属性不一致片段）来训练。

LLM | 2026-10-01 | cs.AI | score 6/10

Hallucination DetectionHidden State ProbingCross-ModelSpan-LevelInternal RepresentationsLLM

Domain-Specific Hallucination Detection in Large Language Models

领域特定的大语言模型幻觉检测

🧭 LLM幻觉检测与领域自适应

Purdue University Fort Wayne

多信号检测管线结合DeBERTa-v3、MC Dropout与DPO，实现通用与领域自适应幻觉缓解

📌 工作参考价值（4 点）

• 在电商问答、商品描述、推荐理由等 LLM 生成场景，可部署类似“微调 DeBERTa-v3 + MC Dropout + 温度缩放”的反应级幻觉检测器，作为生成内容上线前的置信度闸门；MC Dropout 推理可额外提升准确率但增加延迟，适合异步质检而非实时推荐链路。
• 标注预算有限时，可借鉴其学习曲线结论：25% 训练数据已获 77% 性能，垂直域可先用小样本微调快速验证，再决定是否扩充标注。
• 跨域迁移风险明确：通用域检测器在生物医学域 F1 仅 0.52，域匹配预训练模型微调才明显提升；业务上不能直接复用通用事实性检测器，应使用行业语料继续预训练或微调。
• DPO 用检测器分数作为偏好信号，将 Qwen2.5-0.5B 幻觉率从 85.5% 降至 37.7%，可尝试对推荐文案/客服回复生成器做类似对齐，减少不实信息。

LLM | 2026-09-10 | cs.LG | score 6/10

Hallucination DetectionDeBERTa-v3MC DropoutDPODomain AdaptationCalibration

D-Score: A Spectral Hidden-State Signal for Hallucination Detection in Large Language Models

D-Score：基于谱分析的大模型幻觉检测信号

🧭 LLM幻觉检测 · 隐藏状态谱方法

Department of Computer Science and Engineering, University of Bologna

提出D-Score，利用隐藏状态奇异值方向数检测LLM幻觉，单次前向传播无需外部工具

📌 工作参考价值（4 点）

• 在电商/推荐场景中，LLM生成推荐理由或商品描述时，可集成D-Score作为轻量级幻觉过滤器，仅需单次前向的隐藏状态，不增加额外推理延迟。
• 方法不依赖外部知识库或多轮生成，适合高并发在线系统，可在生成后实时判定文本可信度，降低人工审核成本。
• 隐藏状态谱特征对事实冲突敏感，可作为RAG检索增强生成中的补充校验信号，辅助判断生成内容是否与检索证据一致。
• 可将D-Score思路迁移至Agent行为检测，例如监控Agent生成的计划或动作是否与内部模型知识矛盾，增强Agent可靠性。

Eval | 2026-07-27 | cs.AI | score 7/10

Hallucination DetectionHidden ActivationsSingular ValuesSpectral MethodsMechanistic Interpretability

CoMet: Context and Multiplicity Decomposition for Multimodal Uncertainty Estimation

CoMet：上下文与多重性分解的多模态不确定性估计

🧭 多模态大模型不确定性估计

Princeton University

将多模态不确定性分解为上下文相关项与多重性相关项，用轻量级后置模块高效估计，无需重复生成

📌 工作参考价值（4 点）

• 电商推荐场景下的多模态模型（如图文推荐、短视频描述）可采用不确定性分解思路，区分任务固有歧义和多种可能答案的模糊性，辅助在线决策。
• 轻量级后置模块直接复用已有隐藏表征，无需多次采样或完整生成，适合推荐系统对低延迟的要求。
• 可用于多模态生成内容的幻觉检测，例如自动过滤不可信的图文推荐理由或评论，提升用户体验。
• Agent 在调用 MLLM 时可使用 CoMet 估计置信度，实现自适应动作执行或请求人工确认，增强系统鲁棒性。

Eval | 2026-06-30 | cs.LG | score 6/10

Uncertainty EstimationMLLMPost-hocContext DecompositionMultiplicityHallucination Detection

Cascading Hallucination in Agentic RAG: The CHARM Framework for Detection and Mitigation

代理RAG中的级联幻觉检测与缓解：CHARM框架

🧭 代理RAG · 级联幻觉检测与缓解 ★ 深度解读

University of North Dakota

提出CHARM框架，通过跨阶段事实验证、一致性跟踪和置信度监控，实现89.4%的级联幻觉检测率和82.1%的错误传播减少。

📌 工作参考价值（4 点）

• 多步推理流水线的被动检测层：电商推荐Agent常涉及查询解析→召回→排序→生成解释等多步推理，可借鉴CHARM在不替换原有架构的前提下，引入跨阶段事实验证（SFV）和语义漂移跟踪（CSCT），捕获中间步骤的事实错误与逻辑偏移，避免错误积累导致最终推荐结果看似合理实则错误。
• 高价值场景的双模验证：对于大促选品、合规文案等高风险决策，可采用平行验证代理（PVA）进行独立复核，以2倍计算成本换取95.2%的缓解成功率，适合金融、医疗等强监管领域。
• 置信度传播监控：在生成式推荐或对话流中，可借鉴置信度监视器（CPM）的思想，用贝叶斯跟踪模型自信度的变化，防止低置信度的中间结论被后续步骤当作高置信信号使用，尤其在解释生成环节防止自欺欺人的“自信幻觉”。
• 可配置阈值与业务风险对齐：CHARM各组件阈值可按业务域校准，例如搜索Query改写阶段可适度降低NLI阈值以提升召回，而合规内容生成则可收紧阈值，并启用流水线回滚（PRR）确保最终输出基于正确上下文。

RAG | 2026-06-03 | cs.IR | score 8/10

Cascading HallucinationAgentic RAGHallucination DetectionMulti-Step ReasoningError Propagation